Trong khi quân Thụy Điển đang sa lầy ở Ba Lan, quân Nga được rảnh tay đi đánh những lãnh thổ của Thụy Điển dọc bờ Biển Baltic.

Pyotr Đại đế phái tướng Boris Petrovich Sheremetev kéo quân đến đánh xứ Livonia, được 7 nghìn quân Thụy Điển bảo vệ dưới quyền chỉ huy của tướng Wolmar Anton von Schlippenbach. Tháng 1 năm 1702, Sheremetev có một chiến thắng quan trọng, đánh đuổi quân Thụy Điển ra khỏi doanh trại mùa đông, và còn gây 1 nghìn quân thương vong theo như phía Thụy Điển nhìn nhận (phía Nga tuyên bố gây thương vong 3 nghìn và nhìn nhận bị thiệt hại 1 nghìn). Quan trọng hơn theo ý nghĩa tượng trưng, quân Nga bắt được 350 tù binh Thụy Điển và giải họ về thành Moskva. Tinh thần của toàn quân Nga, đã xuống thấp từ chiến bại thê thảm tại Narva, từ đó bắt đầu lên.

Mùa hè kế tiếp, tháng 7 năm 1702, Sheremetev lại tấn công Schlippenbach ở Livonia, và lần này 5 nghìn quân Thụy Điển bị đánh gần như tan tành: 2.500 thương vong, 300 bị bắt cùng với pháo và cờ xí. Bên Nga bị mất 800 người. Sau trận này, quân cơ động của Schlippenbach không còn xuất hiện, và cả vùng Livonia xem như bỏ ngỏ ngoại trừ các căn cứ cố định Riga, Pärnu và Dorpat. Quân dưới quyền Sheremetev tự do tung hoành khắp nơi, đốt phá làng mạc và thị trấn của Thụy Điển.

Trong lúc đó, Pyotr Đại đế cho đóng loại thuyền nhỏ trên hồ Ladoga, hồ lớn nhất châu Âu, để đánh đuổi hải quân Thụy Điển. Quân Nga áp dụng cùng chiến thuật trên hồ Peipus. Kế tiếp, Nga chiếm lấy pháo đài Thụy Điển ở Nöteborg, nơi ồ Ladoga chảy vào sông Neva, đổi tên của pháo đài thành Schlüsselburg, từ schlüssel trong tiếng Đức có nghĩa là "chìa khóa", cũng có ý nghĩa pháo đài là chìa khóa mở ra Biển Baltic. Sự thất thủ của Nöteborg/Schlüsselburg là thất bại nặng nề cho Thụy Điển vì họ đã mất đi bức tường chắn Nga tiến ra Neva và cả tỉnh Ingria.

Mùa xuân năm sau, 1703, trong khi Karl XII vẫn còn ở Ba Lan, Pyotr Đại đế dứt khoát "không để mất thời giờ mà Thiên Chúa đã ban," tấn công trực diện để tạo dựng miền đất Nga trên bờ Biển Baltic. Cuối cùng, Nga kiểm soát toàn chiều dài sông Neva, và Pyotr Đại đế cho xây dựng thành phố Sankt-Peterburg ở cửa sông Neva.

Năm 1704, Nga giành quyền kiểm soát hai thị trấn then chốt của Estonia là Dorpat và Narva. Việc này giúp củng cố chân đứng của Nga ở Ingria và ngăn chặn Thụy Điển tiến về Sankt-Peterburg từ phía tây. Chiến thắng Narva có tầm quan trọng về tâm lý cũng như chiến lược: không những che chắn cho Sankt-Peterburg ở mặt tây, mà còn chuộc lại nỗi nhục nhã bốn năm trước cũng chính ở Narva.